Enam hari selepas mengangkat sumpah sebagai Canselor pada tahun 1933, Hitler bertemu dengan para pemimpin tentera Jerman, mengumumkan bahawa keutamaan pertamanya ialah persenjataan semula.[31]Menteri Pertahanan yang baru Jeneral Werner von Blomberg memperkenalkan prinsip-prinsip Nazi kedalam angkatan tentera, menekankan konsep Volksgemeinschaft (komuniti nasional), yang mana rakyat Jerman disatukan dalam masyarakat tanpa apa-apa darjat.[32] "Pakaian seragam membuat semua lelaki sama."[33] Pangkat tentera menetapkan satu rantaian pemerintah, bukannya sempadan darjat. Para pegawai telah diarahkan bergaul dengan lain-lain pangkat. Dekri Blomberg terhadap tentera dan Sosialisme Nasional pada 25 Mei 1934 menyatakan: "Apabila pegawai tanpa tauliah dan anggota mengambil bahagian dalam mana-mana perayaan, penjagaan mesti diambil agar para pegawai tidak semua duduk bersama. Saya memohon agar panduan ini diberi perhatian yang sangat serius."[34] Perkembangan pesat angkatan tentera telah memasukkan ramai pegawai baru dan anggota daripada Belia Hitler. William L. Shirer melaporkan bahawa semua pangkat memakan catuan yang sama, bergaul semasa tidak bertugas, dan para pegawai mengambil berat masalah peribadi anggota-anggotanya.[35]

Pada 1 Ogos 1934 satu undang-undang baru menyatakan pada hari kematian Hindenburg jawatan presiden akan dimansuhkan, dan kuasanya digabungkan dengan kuasa canselor. Bermula dari hari itu, Hitler akan dikenali sebagai Führer dan Canselor Reich. Selaku ketua negara, Hitler menjadi pemerintah tertinggi seluruh angkatan tentera.[36] Pada keesokkan harinya Hindenburg meninggal dunia. (Jawatan baru telah disahkan oleh satu pungutan suara pada 19 Ogos 1934.) Blomberg atas inisiatif sendiri memperkenalkan Sumpah 2 Ogos 1934: "Saya bersumpah dengan nama Tuhan bahawa sumpah suci ini akan menjadikan saya taat setia tanpa syarat kepada Führer Reich Jerman dan rakyat, Adolf Hitler, iaitu Pemerintah Tertinggi Angkatan Tentera, dan, selaku perajurit yang berani, akan bersedia sepanjang masa untuk menggadaikan nyawaku demi sumpah ini." (Pada tahun 1939, perkataan Tuhan telah digugurkan dari sumpah ini.[37]) Reichswehr telah disusun semula sebagai Wehrmacht pada 21 Mei 1935, menyatukan tentera darat, tentera laut dan tentera udara dibawah pemerintahan bersepadu.

Hitler memimpin langkah-langkah persenjataan semula mereka, berterima kasih pada memorinya yang kuat, dan berminat dalam soal-soal teknikal. Jeneral Alfred Jodl menulis tentang Hitler "bayangan teknikal dan taktikal yang mengagumkan telah menyebabkan beliau juga menjadi pencipta senjata moden untuk tentera."[38] Beliau mengecam hujah-hujah tempatan dengan membaca petikan ayat yang panjang dari Frederick Agong dan pemikir tentera yang lain. "Walaupun para jeneral ada masa-masanya merujuk Hitler sebagai seorang 'amatur murahan', beliau setakat ini memahami sejarah ketenteraan dan pergerakan teknologi senjata, beliau lebih berpendidikan dan berpengetahuan daripada kebanyakan mereka."[39] Pada 4 Februari 1938, selepas Peristiwa Blomberg–Fritsch dan persaraan mereka, Hitler mengisytiharkan satu dekri: "Mulai dari sekarang saya sendiri mengambil alih serta-merta pemerintahan seluruh angkatan tentera."[40] Beliau membubarkan Kementerian Perang dan mengambil alih jawatan Blomberg yang lain, sebagai Panglima Angkatan Tentera. Menjelang hujung tahun tersebut, pihak tentera darat mempunyai lebih 1 juta anggota dan 25,000 orang pegawai.